從論文入門到 PyTorch 實戰的學習過程是一個充滿挑戰但也充滿機遇的旅程。通過不斷學習和實踐，我們可以不斷提升自己的技術水平，並為未來的研究和應用打下堅實的基礎。

學習總結

1. 論文入門

   • 理解基礎概念：閱讀和理解機器學習和深度學習的基礎概念是至關重要的。這包括線性回歸、分類、神經網絡等。
   • 選擇經典論文：選擇一些經典的機器學習和深度學習論文，如《DDPM》、《Attention Is All You Need》，這些論文提供了深刻的理論基礎和實踐應用。
   • 批判性閱讀：在閱讀論文時，批判性地分析作者的方法、實驗設計和結果，並思考如何應用到自己的研究中。

2. PyTorch 實戰

   • 安裝與環境設置：首先，安裝 PyTorch 並設置開發環境。這包括安裝必要的庫和工具，如 Colab、Conda。
   • 基礎操作：學習 PyTorch 的基本操作，如資料整理和模型構建。這些基礎知識是進行更複雜項目的基石。
   • 實戰項目：選擇一些實戰項目，如圖像分類、Conditional Diffusion，通過實踐鞏固所學知識。

未來計畫展望

1. 深入研究

• 高級主題：深入研究一些高級主題，如強化學習、多模態和自監督學習，這些領域有著廣泛的應用前景。
• 參與研究社群：積極參與機器學習和深度學習的研究社群，如參加學術會議、研討會和線上討論，與同行交流學習。

根據104學習精靈和其他相關資料，以下是台灣職場上AI工程師大部分所需要的技能：

• 編程技能：
  • 精通至少一種編程語言，如Python、Java或C++。
  • 熟悉深度學習框架，如TensorFlow、PyTorch和Keras。
• 深度學習知識：
  • 熟悉深度學習算法、神經網絡和深度學習框架。
  • 自然語言處理（NLP）：
    • 掌握NLP技術，如文本分類、情感分析和語言生成。
    • 熟悉大型語言模型（LLM），如GPT系列。
    • RAG 系統
• 資料處理與分析：
  • 具備資料清洗、特徵工程和資料可視化的能力。
  • 熟悉SQL和NoSQL資料庫。
• 環境部屬：
  • 使用 Docker 部署
  • 熟悉 AWS / GCP
• 建立 API

在台灣大部分AI工程師都是從後端開發轉過來的，因為許多公司沒有足夠的資金來重新訓練模型或進行研發。因此現在的AI工程師大多數只需要調用API來完成任務。

此外許多AI工程師在接案工作室工作，必須想辦法使用小模型進行開發。在客戶資金有限的情況下，會需要重新改寫架構，以完成所有的目標。